Trong cuộc biến cố Bắc kỳ 1873, Francis Garnier cho tuyển mộ các đơn vị dân quân Bắc Kỳ, phần nhiều là các tín đồ Công giáo, là những người không có thiện cảm và thiếu trung thành với triều đình Tự Đức, vốn vẫn đối xử không nương tay với họ. Các toán quân này chỉ tồn tại trong vài tuần, và bị giải tán khi người Pháp rút khỏi Bắc Kỳ vào mùa xuân năm 1874. Tuy nhiên, thí nghiệm này cũng chứng tỏ cho người Pháp thấy tiềm năng của việc tuyển mộ binh lính phụ trợ ngay tại Bắc kỳ.

Việc triển khai các đơn vị quân hỗ trợ người Việt được tiến hành trước hết tại Nam Kỳ, với việc người Pháp thành lập một trung đoàn bộ binh An Nam năm 1879 (thường được gọi là lính tập An Nam, lính tập Sài Gòn hay là lính tập Nam Kỳ - hay lính khố đỏ).[1]

Trong khoảng những năm 1883 và 1885, quân Pháp hết sức bận rộn đánh dẹp quân cờ đen tại Bắc Kỳ, cũng như chống lại các lực lượng quân Việt và Trung Hoa. Các chỉ huy Quân đoàn viễn chinh Bắc Kỳ nối tiếp nhau sử dụng các lực lượng hỗ trợ Bắc Kỳ bằng cách này hay cách khác. Việc thiết lập các trung đoàn chính quy lính tập Bắc kỳ (hay lính khố đỏ Bắc kỳ) năm 1884 đã có tiền lệ là việc thí nghiệm lập ra các đội lính tập do tướng Bouët và Đô đốc Courbet tiến hành từ nửa cuối năm 1883. Quân Pháp sử dụng vài trăm quân cờ vàng như một toán quân hỗ trợ, trong các cuộc giao tranh chống lại quân cờ đen trong các trận đánh xảy ra vào tháng 8 năm 1883. Quân cờ vàng, dưới sự chỉ huy của một viên chỉ huy người Hy Lạp, là một tay phiêu lưu mạo hiểm, tên là Georges Vlavianos, vốn từng tham gia trong cuộc viễn chinh do Garnier tiến hành đánh Bắc kỳ năm 1873, đánh khá tốt trong vai trò quân xung kích tiền phương trong Trận Phủ Hoài (15 tháng 8 năm 1883) và Trận Palan (1 tháng 9 năm 1883), nhưng bị giải tán nhanh chóng sau cuộc giao tranh, vì chúng rất vô kỷ luật.

Lực lượng viễn chinh Pháp do Đô đốc Amédée Courbet chỉ huy trong trận Sơn Tây bao gồm bốn tiểu đoàn bộ binh lính mộ người An Nam từ Nam kỳ. Lực lượng này cũng có một đơn vị riêng biệt gồm 800 lính mộ Bắc kỳ, gọi là tirailleurs tonkinois, tức lính khố đỏ (hay lính tập) Bắc kỳ, dưới quyền chỉ huy của chỉ huy tiểu đoàn Bertaux-Levillain. Rất nhiều người trong số lính mộ Bắc kỳ đó là những kẻ đã phục vụ dưới trướng Vlavianos trong các trận giao chiến hồi mùa thu, và tái nhập ngũ phục vụ người Pháp sau khi tiểu đoàn Cờ vàng bị giải tán. Đô đốc Courbet không kiếm được các đại úy Pháp để chỉ huy các đại đội này, và họ chỉ đóng vai trò không đáng kể trong trận chiến tại chiến lũy Phù Sa trong trận Sơn Tây ngày 14 và 16 tháng 12. Số lính khố đỏ Nam kỳ, ngược lại, chiến đấu dưới sự chỉ huy của sĩ quan Pháp, giành được nhiều chiến công trong trận chiếm chiến lũy Phù Sa.

Tướng Charles-Théodore Millot, người lên thay Đô đốc Courbet làm chỉ huy lực lượng viễn chinh Bắc kỳ tháng 2 năm 1884, rất tin tưởng vào hiệu quả việc sử dụng các lực lượng phụ trợ người bản xứ. Millot cho rằng nếu các đội quân người bản xứ được chỉ huy bởi sĩ quan và hạ sĩ quan Pháp, họ sẽ chiến đấu hiệu quả hơn nhiều, và còn không có vấn đề kỷ luật, như quân Cờ vàng. Để kiểm nghiệm lý thuyết của mình, ông ta tổ chức các toán quân phụ trợ Bắc kỳ dưới quyền Bertaux-Levillain thành các đại đội quân chính quy, mỗi đại đội được đặt dưới quyền chỉ huy của một đại úy thủy quân đánh bộ. Một số đại đội này tham gia trận Bắc Ninh (tháng 3 năm 1884) và trận Hưng Hóa (tháng 4 năm 1884). Tới tháng 5 năm 1884, trong thành phần lực lượng viễn chinh Pháp đã có đến 1.500 quân phụ trợ người bản xứ Bắc kỳ[2]